Verify Smarter, Evolve Further: Efficient Harness Evolution through Behavior-Aware Verification
更智能验证,更深远进化:通过行为感知验证实现高效 Harness 进化
🧭 Agent 自进化 · 行为感知验证 ★ 深度解读
School of Data Science, Fudan University · Shanghai Key Laboratory of Data Science · College of Computer Science and Artificial Intelligence, Fudan University
提出预算感知的 HARNESSLENS 框架,用行为相关任务和可归因证据门控筛选候选修改,显著提升 harness 进化样本效率
📌 工作参考价值(4 点)
- 评估候选修改时,不要用固定验证集评估所有候选;根据候选意图选择相关任务(supporting trajectories + 相关目标/工具),使信号不被无关任务稀释,回归检测更敏感。
- 采用可归因证据门控:要求观察到的改进能归因到具体行为变化(如 recovered / stable success),仅聚合指标提升不足以接受修改,避免噪声导致接受有害修改。
- 预算感知控制器:设定总交互预算,每次迭代前检查是否能覆盖完整验证+确认轮次,否则停止,避免评估不充分。
- 轨迹诊断与经验复用:把每次 rollout 轨迹转化为可复用经验和缺陷,支持后续候选生成和验证,提高样本效率。